約 1,539,849 件
https://w.atwiki.jp/genai_problem/pages/49.html
生成系AIの総合的な問題点についてまとめているページです。 + 編集者の方へ 生成AIに関する総合的な問題点についてまとめたページです。 私たちの社会に与える影響と、クリエイティブ業界に与える影響の2つに分けて記述しています。 自由に加筆して頂いて構いません。新しい項目なども自由に作ってください。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 【0. はじめに】 【1. 社会における生成AIの問題点】1-1. 偽情報の作成・拡散1. 画像生成AIのフェイク 2. 音声生成AIのフェイク 1-2. AI製ポルノ・AI製児童ポルノ1. AI製ポルノ問題 2. AI製児童ポルノ問題 1-3. 電子情報の信頼性が低下する可能性1. 詐欺への使用 2. 司法の場などにおけるデータ証拠信頼性低下の可能性 1-4. インターネットの汚染 1-5. 失業問題 【2. クリエイティブ関係における生成AIの問題点】2-1. クリエイティブ業界において生成AIが引き起こす共通の問題点1. 生成AI開発時の作品無断利用問題 2. 著作権などの諸権利が死文化する可能性 3. AI特有の大量生産による弊害 4. コンテンツ制作においてAIが「主」人間が「従」になる事の問題点 2-2. アート・写真に関する問題 2-3. 文芸に関する問題 2-4. 音楽に関する問題 2-5. 俳優・声優に関する問題 2-6. プログラムに関する問題 2-7. 報道機関に関する問題 2-8. クリエイティブ業界の人々の主張1.生成AIの学習データを得る際は許可制(オプトイン※)に 2.学習データの公開義務化を 3.AI生成物表示義務 4.その他の主張 【3. その他の問題点】機械学習への悪影響 【4. 生成AIに関する論点】 【関連ページ】 【0. はじめに】 いま世間は生成系AIの話題で持ちきりとなっています。この技術が私たちを変えてくれるのだ、人類の労働を効率化し果ては労働から解放される、より大きな繁栄へ導くのだとの言説が盛んに叫ばれています。しかしながらその陰で、まさに今現在生成AIによって精神的苦痛に追い込まれている人々もいます。 このページでは生成系AIが現在引き起こしている・将来引き起こしうる問題について、「クリエイティブ関係における生成AIの問題点」と「社会における生成AIの問題点」の二つに分けて解説しています。 クリエイティブ関連について触れているのは、画像・テキスト・音楽・音声生成AI等においてクリエイター達が創り上げた作品たちが無断で利用されているという背景があるためです。つまりクリエイター達が創った作品を生成系AIを開発する企業や一部生成系AIユーザーが許可や対価なしに生成系AIに取り込んで利用し、人間では到底成し得ないようなスピードで量産する事でコンテンツの価値を下げ、果てはクリエイターを経済的・精神的苦境に追い込む構造が世界的に批判されているためです。 さらに、生成系AIは私たちが生きる社会の中でも大きな問題を起こしている・将来起こし得るとの批判があります。代表的なものは「偽情報の作成が簡単になった」という部分です。例えば画像生成AIでは、政治家が逮捕されている様子を表現した精巧な偽画像が作成されたり、災害時にデマを流す用途として使用されるケースが発生しています。音声生成AIでは特定人物の声を抽出した上で精巧なボイスチェンジャーとして用いられ、身内に対する詐欺用途として悪用されるといった問題が発生しています。 このような問題は昔からあったものですが、生成系AIの普及に伴ってかなり簡単に偽の情報を作成したり他人を騙す事が出来るようになったという事が決定的な違いです。偽情報によって社会を混乱させたり個人を中傷することがより簡単になってしまいました。 人類の歴史上、画期的な技術が生まれた事による文明の進歩や生活の向上は何度もありましたが、同じぐらい新技術によるリスクにも曝されてきました。技術に囲まれて暮らす私達だからこそ、技術がもたらす良い面と悪い面どちらも考えて議論していくことが大切だと考えています。 【1. 社会における生成AIの問題点】 この項目では社会においてすでに発生しているか、今後発生し得る生成AIの問題点について記述しています。 1-1. 偽情報の作成・拡散 生成AIは、デマ情報等の作成にも利用されている。デマ情報の作成において、既に何度か生成AI(特に画像生成AI)によって作られたデマが作成・拡散される事例が発生するなど事態は深刻化しつつある。 1. 画像生成AIのフェイク 生成AIが本格的に普及する前は、誰かが撮影しインターネット上にアップロードした写真などを用い、(コラージュなどの工程も経て)元写真が撮られたときの実際の状況とは違うキャプションなどを付けネットに放流する、というのがデマ作成の方法として一般的なものであったと思われる。 しかしながら、画像生成AIは基本的には既存の画像とは見た目上異なる画像を出力するため、以前のようにブラウザの画像検索機能を用いたり人間の記憶を辿ったりする等で元画像のありかを探してデマであることを証明する、という行為が著しく困難になる。しかも、画像生成AIの精度は日進月歩で進化しているため、以前は画像生成AI製画像の大きな弱点として指摘されていた手や指の形状の不自然さも克服されるなど、だんだん人間の目ではAI製フェイク画像を見抜くことが難しくなっている。 画像生成AI普及以前において精巧なコラージュ画像を作るには高度な画像編集技術が必要であったが、画像生成AIは技術の無い人でもAIに作って欲しい画像についてプロンプト(リクエスト文)を打つだけで誰でも精巧なフェイク画像を作ることが出来る点にも留意しなければならない。さらに音声や動画生成系のAIも日々発達しており、音声や動画系の情報にも警戒する必要がある。 この状況に対しアメリカや欧州の政府は生成AIを提供する企業などに対し対策を求めるなど、政治レベルでの動きを活発化させているがまだまだ道半ばである。 【画像生成AIを用いたデマの代表例】 2022年9月:静岡県などを襲った台風15号による災害が起きた際に作成・拡散された。あるツイッター(X)ユーザーが画像生成AIを用いて街全体が浸水している様子を空から取った画像を作成。これを「ドローンで撮影された静岡県の水害のようす」との内容のキャプションを付け投稿した。(記事⇒静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用 投稿者はデマと認めるも「ざまあw」と開き直り(2022年9月26日-ITmedia)) 2023年3月:画像生成AIサービスMidjourneyのユーザーが作成した「アメリカの前大統領ドナルド・トランプ氏が警察官に連行されるフェイク画像」が投稿、Midjourney運営は当該ユーザーを利用禁止処分とした。(記事⇒画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける(2023年3月23日-GIGAZINE)) 2023年5月:「ペンタゴン付近で爆発が起きた」との内容のフェイク画像が作成、拡散された。この画像は有名メディアの公式ツイッターを装った偽アカウントで投稿されるという巧妙さであった。幸いすぐにフェイク画像であると広まった為大きな被害はなかったものの、アメリカの株式市場において売り注文が殺到するという事態が発生した。(記事⇒AIが生成したペンタゴン爆破の偽画像で米株式市場が大荒れするまで(2023年5月26日-GIZMODO)) 2. 音声生成AIのフェイク ▲ページトップへ 1-2. AI製ポルノ・AI製児童ポルノ 生成AIは、ポルノや児童ポルノの作成にも利用される。この項目では画像生成AIで作成されたポルノ、特に写真風のリアリスティックなAI製ポルノをメインに記述する。 1. AI製ポルノ問題 2023年現在、生成AI(特に画像生成AI)で作られたポルノが大量に作られ、インターネット上にアップロードされている。それらの中には有名人(特に女優・女性アイドルなど)の容姿を模したものも出回るなど(当然無許可)、状況は深刻化している。有名人か一般人か、ネットに自撮り写真をアップしているかしていないかにかかわらず、この問題に巻き込まれる可能性がある事に注意しなければならない。 まず、画像生成AIを用いたポルノは主に以下の3つの種類に分けられる。 1.有名人・一般人を問わず特定人物の顔立ちへ意図的に寄せたもの 2.既存の写真の一部を生成AIを用い性的に加工したもの 3.特定人物の顔立ちなどには意図的に寄せていない、ただプロンプトなどを打ってポン出ししたもの 1は、ネット上に顔出し写真をアップしているだけでも他人が勝手に自分の顔立ちに寄せた偽ポルノを作ることが出来てしまい、そのクオリティによっては偽ポルノであると証明する事も困難になり、社会的・精神的なリスクが付きまとう。2についても同様で、1に比べれば元写真が存在する分まだ偽物である事の証明はしやすいものの、同様のリスクが残る。3については自分の顔が写った写真がデータセット(※画像などの大量のデータを一つにまとめたもの)内に入っていれば、偶然自分に近い顔立ちの人が描写されたAI生成物が出てくるかもしれない。 では、なぜこのような状況になったのか?その根本的な問題は一つの企業にある。2022年後半、Stability AIという英国の生成AI開発スタートアップ企業が「Stable Diffusion(ステーブル・ディフュージョン・以下SD)」という画像生成AIをリリースした。SDはドイツのAI関連非営利団体LAIONが作成した「LAION-5B」と呼ばれる約58億枚の画像データが入った画像データセットを用いて開発されたが、LAION-5Bはポルノや児童ポルノ、暴力的な画像、個人情報に関連する画像など倫理的に問題のあるデータを排除する取り組みが不十分なままであり、SDにもそれらが反映されることとなった。しかもSDはオープンソースでリリースされたため、SDをベースとした派生の画像生成AIサービスが世界中で多く存在している。 SDリリース時の倫理チェック体制の甘さのみならず、問題を深刻化している要素はもう一つある。ネット上のいち個人が作成したLoRAなどの追加学習モデルだ。これらはSDで動く。SDと追加学習モデルの関係性は例えるなら、テレビゲームにおけるゲームソフトとDLC(ダウンロードコンテンツ)やModの関係性に近い。つまり元々のモデルに特定の要素を追加し、より希望に近い画像を出力させるのである。特にLoRAは、有名人の写真を無断でAI学習させ、それらがインターネット上の共有サイトにおいて多数にダウンロードされるという事態が現在進行形で発生しており、問題視されている。 これらの問題は、Stability AIが偽ポルノ画像・フェイク画像天国となる可能性があったにも関わらず、不適切なデータの精査・除去なしにオープンソースでリリースしてしまったことに起因している。反対に、Photoshopを代表するクリエイティブツールの開発で知られるAdobe社が開発した画像生成AI「Firefly(ファイアフライ)」では、オープンソースにしてネットに放流するような事はせずあくまで既存のAdobe製ソフトに組み込む形でリリースされ、不適切なデータは開発段階である程度除去され、フェイク画像などが作れない様プロンプト(リクエスト文)には単語の制限をかけるなど、画像生成AIを不適切な形で使われない様一定の配慮が為されている。 なお、Stability AIは不適切なデータを排除した「Stable Diffusion 2.0(SD 2.0)」をリリースしているが、SDはWebサービス版だけではなく個人のPCで動かせるローカル環境版も存在するため、余り現状の回復には貢献していないのではないかという主張もある。 今までの文章を読んで「有名人だけでしょ?自分は関係ないよ」と思う方もいるかもしれないが、一般人の被害も実際に起きている。現にSNSに自らの制服姿の自撮り写真を上げた若い女性に対し水着を着せる加工や妊娠しているかのように見える加工が画像生成AIで行われた事例もある。⇒この問題についてのTogetterまとめ。【実際の画像も出てくるので閲覧注意!】 これに対して「SNSに顔出しするのはリスクがあるし仕方がない」という意見を持つ人もいるかもしれないが、何も自らの意思で撮った自撮り写真だけがAI加工の対象となるわけではなく、盗撮写真であったり、一見撮影者に悪意がないように見える状況で撮影された写真においても写真データさえあれば、特定個人の顔立ちに寄せた偽ポルノ画像であったり、既存の写真を違和感が少ない状態で性的な加工をする事が容易に出来るようになってしまった。 性的な目的だけではなく、嫌がらせ目的で偽ポルノを作る可能性も当然考えられる。それらが実際に社会においてどのように悪用されるのかはすぐに想像できる。 ▲ページトップへ 2. AI製児童ポルノ問題 生成AI(画像生成AI)で実際の児童ポルノのようなフォトリアルな画像を作ることも出来る。画像生成AIで作ったフォトリアルな非実在児童の性的画像についてはいわゆる「児童ポルノ」に当たるかなど、法的解釈が定まっていない部分もあるが、このページでは分かりやすく「AI製児童ポルノ」と表記する。 AI製児童ポルノは「基本的に出力されるのは非実在児童だが、実在児童の写真データをAI学習元として使っている。」という極めてややこしい特性を持つ(これは児童に限らず成人でも同じだが)。「いくら学習データに実在児童を使っていたとしても出力されるのは顔立ちなどが違う別人なので問題ない」という主張もあるが、画像生成AIが偶然実在人物に酷似した顔の人物を出力した事もあるため、必ずしも全てに適用できるものではないだろう。 AI製児童ポルノを肯定する人の中には「AI製児童ポルノの登場によって小児性愛者がAI製で満足し実在児童の被害が減る」という主張をする人もいるが、効果があるのかは現状定かではない。 しかしながら、AI製児童ポルノがもたらす明確な問題も存在している。それは「AI製児童ポルノが大量にネット上に氾濫する事で、実在児童が被害者となっている本物の児童ポルノの捜索に悪影響を及ぼしている」というものである。これらの問題は既に捜査機関や児童ポルノ対策団体から指摘されている。画像生成AI「Stable Diffusion」を運営するStability AIはAI製児童ポルノの作成を止めるため、トレーニングデータから問題のあるものを削除し、作成能力を低下させるなど画像生成AI開発企業もある程度の対策を行っているが、これは確実なものではない。 関連記事1⇒「英国版FBIが警鐘、生成AIによって摘発が困難になる児童ポルノの深い闇」(2023年7月22日-JBpress) 関連記事2⇒「AI-generated child sex images spawn new nightmare for the web」(2023年7月19日-ワシントンポスト) 関連記事3⇒「生成AIの児童性虐待画像を売買 日本のソーシャルメディアなどで」(2023年6月28日-BBC日本語版) ▲ページトップへ 1-3. 電子情報の信頼性が低下する可能性 生成AI製のコンテンツが溢れることによって、電子的なデータの信頼性が崩れることも憂慮されている。 主に詐欺での使用や司法の場における証拠データの信頼性低下の可能性、疑惑のある人物が明確な証拠物が出てきたとしても「これはAIで作られたものだ」と言ってしまえば疑惑から逃れられてしまう可能性、もしくは全く無実な人が偽のAI生成物によって罪をでっち上げられてしまう可能性が問題視されている。 1. 詐欺への使用 詐欺については音声生成AIを悪用したものがある。それらを利用した詐欺として、「知人を偽り困窮していると嘘をつく」「被害者の連絡先に電話をかける」といった行為がある。 セキュリティソフトで知られるマカフィーが実施した音声生成AIを悪用した詐欺の被害調査では、日本、米国、英国、ドイツ、フランス、オーストラリア、インド7か国の7054人を対象として実施し、「自身、もしくは知人がAIによる音声詐欺に遭遇した事があるか?」という設問に対し、「自身が遭遇」「知人が遭遇」を選択した人は世界平均でそれぞれ10%と15%となった。中でもインドは突出して多く20%と27%という結果であった。同調査においてはAIで作られた音声を識別できるかという設問に対し、「識別できるかどうか分からない」「識別できないと思う」との回答が35%ずつで合計70%となった。この調査においては日本のAI音声詐欺の遭遇率は低かったものの、マカフィーの担当者は「日本は音声データの共有率が低くその分詐欺に遭遇する事が少なかったが、今後遭遇する可能性が高いとも受け取れる。マカフィーの調査によればわずか3秒で85%の一致率を有する音声クローンが作成可能だ。現状を認識し音声の共有には慎重になり、音声詐欺の遭遇に備える必要がある」と述べた。 ⇒マカフィーによる調査結果の詳細「AI(人工知能)を悪用した音声詐欺が世界で増加中」(2023年5月27日-PRtimes) 実際にアメリカでは、娘の声をAIで再現した上で母親に電話を掛けて偽の誘拐事件をでっち上げ身代金を要求するという事件が発生している。 ⇒Traumatized Ariz. mom recalls sick AI kidnapping scam in gripping testimony to Congress(2023年6月14日-Newyork post) 2. 司法の場などにおけるデータ証拠信頼性低下の可能性 裁判の場において提出された証拠に対し、「これはディープフェイクだ」と主張するケースが見られている。本当にやった行為であってもそれそのものの存在がやった側に取って不利になるのならば当然「ディープフェイクで作られた偽の音声(あるいは画像・動画)だ!」と主張する。 2018年に起きたテスラ車の死亡事故において、「オートパイロット機能が誤作動した」と主張した遺族側に対しテスラ側は「ドライバー側の過失だ」と抗弁した。その中で、遺族側は同社のCEOイーロン・マスクが「テスラ車は人よりも安全に走行できる」と語った音声を証拠品として提出したが、テスラ側は「マスク氏はその有名さからディープフェイクの対象になりやすく、証拠映像の信ぴょう性に疑問がある」と主張する事態が発生した。 さらに今年4月には(裁判とは関係ないが)インド・タミル・ナードゥ州の政治家に対し「横領を行っている」と告発する内容の音声が流出。その政治家は「これは機械によって生成された」ととしたものの、実際の音声であると判明。 関連記事1⇒「裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念」(2023年5月9日-GIGAZINE) 関連記事2⇒「生成AIによるフェイクコンテンツとの戦いは、ウォーターマークが導入されても終わらない」(2023年8月7日-WIRED) ▲ページトップへ 1-4. インターネットの汚染 生成AIで作られた不正確なデータによってWebの情報の正確性等が失われる可能性がある。既に画像検索においては、動物の名前で検索した場合画像生成AIで作られた不正確な形状の動物の画像が出てくるとの報告が寄せられている。 1-5. 失業問題 編集中 【2. クリエイティブ関係における生成AIの問題点】 クリエイティブ関係において生成AIが引き起こしている・将来引き起こし得る分野を問わない共通の問題点についてまとめています。生成AI問題について少し聞いているけど内情は分からない、なぜクリエイター界で問題視されているのかが分からない方に向けた内容です。なぜ問題視されているのか、その内容を知らない事にはそもそも賛同も反対も難しいと思います。 クリエイターの皆さまも「生成AI問題には触れたくない、知りたくない」という心情もあるかもしれませんが、クリエイティブの未来に関わる問題なのでどうかこのwikiで問題点を少しでも知っていただけますと幸いです。 2-1. クリエイティブ業界において生成AIが引き起こす共通の問題点 クリエイティブ業界において生成AIが引き起こしている問題点を➀生成AI開発時の作品無断利用問題、②著作権などの諸権利が死文化する可能性、③AI特有の大量生産による弊害、④コンテンツ制作においてAIが「主」人間が「従」になる事の問題点の4つに分けています。 1. 生成AI開発時の作品無断利用問題 基本的に、生成AIが高クオリティの出力物を出すには大量のデータを利用しなければならない。しかしながらパブリックドメインなど権利面での問題が無いデータだけでは足りず、十分な結果を出すことが難しいという問題がある。そのため、インターネット上にアップロードされている著作物・創作物なども利用する必要が出てくる。故に現在の生成AIのほとんどはクリエイターが制作した作品を許可も対価も得ることなく無断で利用した上で成り立っている。 生成AIに限らずAI全般の開発時、他者のデータを無断で利用する場合も多いが、それらの大半は利用したデータとは異なる結果を最終的に得る。例えば「画像認識をするAI」を開発する際には、最終的に「画像内に描写された物体を識別できるようになったAI」等を得られるのであって、写真等を利用された権利者の利益と相反する訳ではないので無断利用であっても抗議されることはほぼない。 しかしながら生成AIでは「クリエイターの作品を無断利用した上で"作品そのもの"を最終的結果として得る」という問題がある。つまり生成AIはクリエイターたちの作品を無断利用し、その利用元作品の質・量に出力結果のクオリティも依存し、なおかつ人間の生産力を超越する大量生産が可能なので、クリエイターたちの活動する市場に大幅な悪影響をもたらす・もたらし得る構造になっている。しかも研究用としてなど利用に制限が掛けられている訳でもなく、商用用途も可能と称してインターネットに放流され現在進行形でクリエイターたちは市場を荒らされている。 2. 著作権などの諸権利が死文化する可能性 現状、多くの生成AIは開発の際利用したデータを公表していない。そのため誰の作品がどれだけ利用されたのか、開発者以外は知りえない状態となっており、さらに大半の国・地域ではデータの公表義務は存在せず公表するもしないも生成AI開発者次第となっている(ただしEUのAI法ではデータ公表義務を課すこととなっている)。 これは、インターネット上に存在する画像、文章、音声といった作品のデータをいくら使おうとも作品を制作したクリエイターは使われたかどうかが確認できず、使われた疑惑があったとしてもクリエイター側は自作品が利用された事を証明する事が極めて難しくなる。さらに、現状の生成AIは作品を自分が制作したか他人が制作したかに関係なく、いちユーザーが作品データを追加で生成AIへ学習できるようになっている。 多大な努力によって表現を磨き上げてきたクリエイターの許可なしで、クリエイター本人たちも分からない状態で対価も払わないまま「AI学習」を盾に無断利用出来る事が常態化した場合、既存のクリエイティブにまつわる権利体系が実質的に機能しなくなってしまうのではないかという可能性が指摘されている。 3. AI特有の大量生産による弊害 人間がコンテンツを生産する速度に比べ生成AIは圧倒的にその速度が速い。イラストレーションで言えば、人間が1枚の絵を描くのに(制作スタイルや筆の速さにも左右されるが)最低でも数時間はかかるが、画像生成AIは1日で数十枚、数百枚出力する。音楽分野で言えば、あるAI開発企業は音楽共有サービスSpotifyにあるすべての楽曲を越える数の曲を短期間で生成出来たと話している。 一見生産性が上がり喜ばしい事のようにも見えるが、実は大きな弊害を抱えているという指摘がある。それは、「生成AIの大量生産に伴って需要と供給のうち供給側が極端に増え、需要は大して増えないので一つ一つの作品の価値が落ちる」というものである。さらに、これによってクリエイターの生活が困窮し(生成AI登場前でも対価が少ないという議論が様々な分野であったにもかかわらず)一部の成功した人々以外はますます苦境に追い詰められるだろうと言われる事がある。下手をすればクリエイティブ職の華々しいイメージは消え、果てはクリエイター志望者の数も減少、地道に新しいものを作ろうとする人が消え、文化の発展に大きな問題が発生し得るとの指摘もある。 新人クリエイターがクリエイティブで生計を立てようと思って、地道に作品作りに取り組んだとしても大量のAI生成物に阻まれそもそも見てもらえないのではないかという可能性も指摘される。それならAIに負けない個性を磨けばいいとも思えるが(少なくともイラストレーターの画風のような)データ上に表出する個性については生成AIは一瞬で模倣が可能なので、長きにわたる研鑽によって磨かれた個性の大量生産、陳腐化を常に恐れなければならない状況となっている。 ならば人間とAI、どちらが作ったものなのかを技術的・法的に見分けられるようにプラットフォーマーや技術者、政治家等が対応したらいいという主張もあるが、これも簡単ではない。例えば、イラスト・小説投稿サイトであるpixivは生成AIで作ったコンテンツに「AI生成」のタグを付けるようになっているが、これはあくまで投稿者の自己申告である。もしこれから人間の作ったものの価値がAI生成物のそれよりも高いという価値観が主流となった場合、生成AIユーザーの中には「人間が作ったもの」と偽ろうとする者が出てくると思われる。ならば技術的に見分ければ良いのではないか、という主張もあるがこちらも確実ではない。特に画像や文章において生成AI製コンテンツを識別しようという技術の開発が進んでいる。これらは既存クリエイターの価値を担保したりディープフェイク対策の観点から有効だが、どうしても識別ツールと悪用者のいたちごっこになりやすく、永続的な解決策とはなり得ない。欧米では政治的な部分からもフェイク対策を中心にAI製コンテンツを識別しようという動きがあるが、まだまだ始まったばかりである。 生成AI問題は主に「無許諾利用かつ市場衝突」する面が主な問題点とされるが、極端な大量生産による弊害はそれらの問題が無くなった後でも続く可能性があり、こちらも注視し、議論していかなければならない。 4. コンテンツ制作においてAIが「主」人間が「従」になる事の問題点 コンテンツ制作の根幹的な部分をAIが担い、人間はその間違いを修正したりする補助的な部分を行う事になった場合、ここでも問題が発生する。まず、当然のことながら人間に対するコストカットが行われることとなる。「あくまで補助的作業をしているので貢献度が低く、そのため対価を減らしても良い」というロジックが働いてしまうのだ。現にアメリカの脚本家からはそのような問題が指摘されている。 ほとんどの生成AIは、人間が多大な検討・努力の過程を経て創り出した作品をインターネットを通して無許諾・対価なしに吸い取り、さらには生成AIの出力物の結果の良し悪しは吸い取られた元クリエイター達の努力・研鑽に大きく依存しているにもかかわらず、そのクリエイター達を安くこき使うために生成AIが使われるというあまりにもグロテスクな光景が実現しつつあるのだ。結局これは産業革命などではなく寄生構造であり、格差の拡大につながるという指摘もある。 生成AI問題ではよく「仕事を奪う」という事が言われるが、「仕事の価値を下げる(そして雇用主側が得をする)」事も大きな問題点である。 ▲ページトップへ 2-2. アート・写真に関する問題 ⇒画像生成AIの問題点、特にイラストレーションなどに及ぼす影響についての詳細は当wikiの「画像生成AIは何が問題なのか?」をご覧ください。 イラストレーターなど絵を描く人々に対する悪影響 2022年後半から本格的な画像生成AIがリリースされて以降、絵を描く人々に対し大きな悪影響を及ぼしている。絵描きと画像生成AIに関連した問題としてよく言われるのが「特定クリエイターの作風(絵柄)模倣問題」と「i2iなどを悪用した(いわゆる)トレパク問題」が挙げられる。 写真家・写真業界に対する悪影響 写真家からも生成AIに関する問題点が指摘されており、仕事への影響は当然のことながら人生をかけて作品を作っている写真家たちの作品が勝手にAI学習に用いられ、特定写真家の作風と似た生成物が出来てしまう事による心理的悪影響も指摘されている。さらに、ある写真素材の販売サイトに自らが撮った写真を提供している人からは、サイト側が撮影者側に明確な許諾なしに画像生成AIのAI学習に写真を使ったとして抗議しているケースもある。 一部の写真投稿・販売プラットフォームも生成AIの現状を問題視している。アメリカの大手写真素材販売企業Getty images(ゲッティ・イメージ)は、画像生成AIに自社が販売する画像データが無断で利用されることを問題視しており、画像生成AI開発企業Stability AIに対する訴訟やメディア・作家団体等と共に生成AIの濫用に対し規制を求める声明を発表する(ソース)など、動きを見せている。 ⇒生成系AIに関連して発生した訴訟・法的対応の詳細は「生成系AIに関する訴訟・法的対応一覧」へ ▲ページトップへ 2-3. 文芸に関する問題 テキストを生成するAIに対しては主に小説家と脚本家の人々から現状を問題視する声が上がっている。 特に海外においては盛んに抗議活動が行われている。全米脚本家協会(WGA)は2023年4月より映画制作会社等に対し環境改善を求めるストライキを行っており、その動機の一つとして「生成AI」の問題点を挙げている。同年7月にはアメリカの作家団体「全米作家協会」は生成AI企業に対し、「著作物のAI利用の際の許諾」「AIに利用された作家に対する公正な補償」「AIによる出力が合法か違法かに関わらず作家へ補償する事」書簡を発表した。なお、この書簡には8500名もの作家が署名している。 生成AIと文学界の葛藤は、デモや声明のみならず司法の場に持ち込まれている。2023年6月末にはアメリカ人作家2名がAI開発企業であるOpenAIに対し訴訟を提起した。同年7月初めにも有名コメディアンなども含まれるアメリカ人作家3名がOpenAIとFacebook等で知られる企業Metaに対し訴訟を起こしている。 ⇒生成系AIに関連して発生した訴訟・法的対応の詳細は当wiki「生成系AIに関する訴訟・法的対応一覧」へ 生成AIは小説家や脚本家のみならず、ライター業の世界でも問題が発生している。あるフリーライターによると、「ChatGPTである程度文章を作れるようになったので1文字当たりの報酬を2円から1円に減らして欲しい」という要望がクライアントからあったという。 記事⇒「AI使うから報酬安く」フリーライターに突然の要求、違法の恐れも(2023年8月10日-朝日新聞) その他にもインターネットのショッピングサイトで生成AIによって作られた本を、特定作家の名前を勝手に使って販売するという事件も起きている。これに対し、作者はサイト側へ削除を要請したものの動きは鈍く、SNSで話題になってから初めて削除対応が行われたという。 記事⇒AIが書いた本が勝手に自分の名義で売られていたら…著者保護ルールが必要(2023年8月9日-GIZMODO) ▲ページトップへ 2-4. 音楽に関する問題 音楽業界においても生成AIの問題点は大規模に指摘されている。 日本国内における音楽関連の権利団体として有名な日本音楽著作権協会(JASRAC)は、2023年7月に生成AIに対する考え方を発表している。その内容は、「人間の創造性を尊重すべきだ」「フリーライドを容認すべきではない」「国際的に協調すべきだ」「クリエイターの声を聞くべきだ」というものである。(ソース) 他にも、JASRACの理事を務める作曲家が文化庁の会議の席で現状の生成AIを問題視する発言を行っている。主に生成AIへ著作物を許可なしで利用してもいいとする根拠法とされる著作権法30条の4の問題点を指摘するものであり、「営利・商業目的であっても他者の著作物を無断利用できるのはおかしい」「許可を取って初めてAIに他者の制作した楽曲を利用できるようになるのが筋だ」「AI技術の進化によって他者の制作した音源から特定の楽器の音などを完璧に抜き出す事が出来るようになり、それに伴う著作隣接権の無視も横行」といった指摘を行っている。 1961年に13の音楽団体が結集して設立された団体、日本音楽作家団体協議会も2023年6月、現状を問題視する声明を発表した。この声明では「生成AI開発の過程における著作物の無断利用によって著作者が不利益を被る恐れ」「著作権法30条の4は生成AI技術が進化している現状に合っておらず、社会の状況に即した見直しが必要」「クリエイターを議論の場に参加させるべきだ」と述べられている。(ソース(PDF)) ⇒生成AIに関してクリエイティブに関連する団体などが発した声明などは当wiki「生成系AIに対するクリエイティブ団体・企業の反応・対応」を参照。 ▲ページトップへ 2-5. 俳優・声優に関する問題 俳優・声優分野においても大きな問題が発生している。 アメリカのハリウッドにおいては、2023年7月より労働組合である「全米映画俳優連合(SAG-AFTRA)」主導で待遇の改善などを求めてストライキが行われているが、その理由の一つに生成AIが存在する。何が問題視されているのかというと「俳優の容姿や演技をスキャンし一日分だけのギャラを与え、そのスキャンされたデータの肖像権などは制作会社側が有し、生成AI技術によって無制限に利用する」という事態が起きようとしており、これがまかり通ってしまえば俳優側がキャリアを積むことも困難になる懸念があるためだ。 動きは日本国内でも存在する。1967年に設立され、理事長を俳優の西田敏行、副理事長を女優の水谷八重子と声優の野沢雅子が務める俳優団体「日本俳優連合」では2023年5月に外画・動画部会が主導となって「AI対策プロジェクト」を発足した。同年6月、同団体は生成AIについての声明を発表した。内容は「EUのAI法を参照したガイドラインの策定」「AI学習の素材は著作者が許可を与えた物のみとして著作権法30条の4の運用見直しを」「AI生成物である事の明示」「AIの表現分野への進出は一定のルールを設ける」「声の肖像権の確立」を求めるものである。(ソース) 声優に対しての被害も深刻だ。声優が自らの声を無断で抽出され、本人が思ってもいないような過激な事を言わされたり、ボイス生成AIを用いた声優への攻撃も行われている。 ⇒生成AIに関してクリエイティブに関連する団体などが発した声明などは当wiki「生成系AIに対するクリエイティブ団体・企業の反応・対応」を参照。 ▲ページトップへ 2-6. プログラムに関する問題 プログラミングの世界でも騒動があり、アメリカで「Github Copilot」というコードの続きを生成するAIが開発されたが、これについて同国で訴訟が発生している。 ⇒生成系AIに関連して発生した訴訟・法的対応の詳細は当wiki「生成系AIに関する訴訟・法的対応一覧」へ 2-7. 報道機関に関する問題 編集中 2-8. クリエイティブ業界の人々の主張 この項目では生成系AIに対し、クリエイターらがどの様な規制・法的措置などの対応を求めているのか大まかにまとめています。 現在、アート、文学、音楽、俳優など、様々な分野の人々が現状の生成AIのあり方に対し異議を唱えている状態です。業界ごとに微妙に要望などは異なるものの、概ね一致するものを大枠で纏めていきます。あくまで規制を求めるクリエイターらが唱える意見の傾向をまとめており、以下すべての主張をクリエイターが支持あるいは否定しているわけではなく、個々人によってスタンスは異なる事をご理解ください。 ⇒クリエイター団体等の生成AIへの反応・対応は「生成系AIに対するクリエイティブ団体・企業の反応・対応」も参考に。 1.生成AIの学習データを得る際は許可制(オプトイン※)に 2024年現在、生成AI開発のために必要なデータを得たい場合は、インターネットから機械的に大量のデータを収集する事が主流となっている。当然、作品データを収集・利用する際に各データの作者に対しては許諾を得ていない。他のAIとは異なり生成AIは「作品そのものを最終的結果として得る」という特性上、データとして無断で利用された作者の活動する市場と衝突し、経済的・精神的な不利益をもたらす。この構造について、生成AI開発企業・ユーザーからクリエイターに対する一方的な搾取構造が発生しているのではないかとの指摘が多くなされている。そのため作品データの無断利用は行わず、各作品の作者から許可を取ったデータのみを生成AIに使うべきとの主張がある(オプトイン)。このオプトインを前提とした生成AIの構築は個々のクリエイターの主張の中で頻繁に取り上げられるのみならず、権利者団体等によるクリエイター向けのアンケートでも過半数から支持されている場合が多く、生成AIの規制を求めるクリエイターの多くから賛同されている主張であると言える。 現状、クリエイティブを取り巻く生成AIの問題は「作品や声、容姿に関するデータを利用する際、その許諾を作者や権利者から得ず無断で利用していること(いわゆる無断学習)」がそもそもの原因となっている場合が多い。そのため、データの無断利用を規制すればかなり被害は軽減されるものとして期待されている。 一方で、「(生成AIは利用するデータが非常に多い為)一人一人の権利者に許諾を求めることは現実的ではない」、「いちいち許可を取っていては(生成)AIの発展に支障が出る」との意見もある。 2.学習データの公開義務化を 2024年現在、ほとんどの生成AIサービスは学習データにどのような作品データを使ったのか公表していない。権利者側は自分の作品がどの程度利用されたのか全く分からない状態であり、「自分の作品が使われたのでは?」と感じるような出力物があったとしてもそれを確認しようがない。さらには生成AIに関連する著作権関連の裁判などにおいても、非公開が前提であるがゆえに侵害の証明などの点でクリエイター側は不利な立場に置かれる可能性が指摘されており、学習データ公開の義務化が求められている。現状、2026年に施行予定の欧州連合(EU)のAI法においては学習データの開示が義務化されるほか、日本でも同様の動きが存在する。 3.AI生成物表示義務 生成AIで作られたコンテンツに対し、「AI生成物であることの表示(ラベル付け)を義務化すべきではないか」との主張。 これについては主に社会に混乱をもたらしたり、個人の名誉を傷つけかねないフェイクコンテンツ規制の観点から必要性が訴えられるが、クリエイティブ方面からも「AI表記なしの生成物が溢れることによって、人間の作品を見たい人にとって不利益が生じる」「見分けることが難しいAI作品が溢れることによって、人間のクリエイターが露出する機会を失ったり、あるいは創作物そのものの価値が落ちかねない」といった事態への憂慮から主張されている。 ラベル付けに関しては実際に技術・法律の面などから対応が進んでいる。すでに作品投稿サイトといったプラットフォーマーの一部は投稿時にAI作品かどうかのチェックを付けるよう義務づけたり、生成AI開発企業などはウォーターマークやメタデータなどの方法でAI生成物であることが分かるようなラベリングを行っている。法律面からもEUやアメリカの一部の州を中心にAI生成物表記を義務化する法律の制定が行われている。 しかしながら、技術的対策の中には「簡単に外せてしまうのではないか」と指摘されるものもあり、対策の実効性に疑問を持つ声もある。また、「フェイク等を判定する際の人々の判断基準について、ラベル付けがあるかどうかが重要視されるようになり、もしフェイクコンテンツであったとしてもラベルがなければ安易に「本物」と信じられるようになるなど、下手な規制がさらなる混乱を生むのではないか」といった主張もある。 ▲ページトップへ 4.その他の主張 容姿・声に対する保護 主に俳優、声優、歌手などの業界から出ている意見。すでにネットは俳優など有名人の顔を勝手に使ったディープフェイク詐欺動画が溢れ、特定の声優などの声を無断で利用したAIモデルが配布されている状況だ。特に声そのものについては何の権利も存在していない状態であり、声優団体の中には「声の権利」新設を主張する団体も存在している。 学習データとなった作品の作者に対価を 生成AIは学習データとしてクリエイターの制作した作品データを大量に利用し、なおかつクリエイターの活動する市場と競合する。さらに、生成物のクォリティはクリエイターが制作した作品のクオリティに依存するという構造があるにも関わらず、クリエイターは無許諾かつ対価なく作品データを利用され、経済的・心理的苦境に追い込まれるが生成AI開発企業だけは得をする。それは問題だろう、という指摘がある。そのため、生成AIに作品を利用した場合、AI開発企業は対価を支払うべきではないか、というものである。 日本国内においては一部議員が還元を提唱した事があるものの、本当に還元が可能なのかという点については疑問が呈されている。画像生成AIに限定して話すと、画像生成AI「Stable Diffusion」で利用されているデータセット「LAION-5B」はなんと58億もの画像データから構成されている。もちろん、開発過程で除外されたデータ、データセット内で同じ画像が重複、パブリックドメインや元々AI開発に利用しても問題ない画像などを除いてもその量は膨大だ。 画像データを利用された全員に一枚の画像データに付き2万円を支払うと仮定した場合、単純計算で58億枚×2万円=116兆円(5,800,000,000x20,000=116,000,000,000,000)となる。ちなみにこれは2023年度の日本の国家予算の一般会計と近い数値(114兆3812億円(記事))であり、膨大な額になることが分かる。当然、全ての画像生成AIが58億ものデータを利用しているわけではなく、もっと少ない場合もあるがそれでもかなりの額に達するのではないかと指摘されている。還元を行う主体として真っ先に想像されるのが、画像生成AIといった生成AIを開発している企業だが、常識的に考えて一つの企業がこの金額を支払うのは不可能である。 勿論全員に支払うのではなく、画像生成AIで画像を出力する際、その出力物がどのような作品に依存したかという部分を解析しその順に支払うといった方式など別の方法も提案されるが、どれだけ還元できるのかは現状分からない。 そしてクリエイター側からすれば、生成AIの構造として「開発時に作者の許諾を取らず無断で作品データを利用されている」「自身が活動する市場と直接的に競合する」「人間の手では無しえない大量生産」「生成物のクオリティは利用元作品の数・質・表現内容に依存する」という要素がある以上、それなりの額を貰えなければ心情的に納得できないだろう。 なお、ChatGPTなどで知られるOpenAI社は、2023年後半より欧米諸国の各メディアと記事をAI学習などに利用し、その対価を支払う契約を次々に結んでいる。この動きを「AI企業と権利者間で正当な契約を結んでデータを利用する慣行を構築する第一歩になる」として評価する意見もあるが、一方で「結局は生成AIのデータ利用について何らかの法的制限などがなければ、AI企業はメディアのような社会的権威を持つ主体に対しては利用契約を結ぶが、個人のクリエイターなどの弱い立場の人々については、今まで通り製作物を生成AI開発に無断利用されるという不平等な環境が成立してしまうのではないか」との懸念も聞かれる。 オプトアウトに関する意見 生成AIのデータ問題に対し、オプトアウト方式を採れば良いのではないかとの意見もある。 一般的にオプトアウト(Opt-out)とは、「原則自由にしておき、問題がある場合にだけ禁止・規制するという概念」を指すとされる。(出典:コトバンク「オプトアウト(日本大百科全書(ニッポニカ) )」) 生成AIにおけるオプトアウトとは、代表的な画像生成AI「Stable Diffusion」開発の際利用されたデータセット「LAION-5B」の中にあるデータを閲覧したり特定のデータを学習データから除去することが出来るサイト「Have I been trained?」が採用しているオプトアウト方式に倣えば、「まず生成AI開発企業などがインターネット上から学習用データを権利者の許可なく取得し、そのあと企業側が削除用プラットフォームを用意、権利者が申請すれば特定のデータが学習データから削除される」というものであるとされる。 反対の概念として「オプトイン」がある。「オプトイン」とは、生成AI関連では「各作者から作品の利用許可を取ってから初めて作品データを生成AIへ利用できる」という事を意味する。 オプトアウトは一見権利者側に配慮したもののように見えるが、以下のような問題が指摘されている。 ◆1. 権利者側が削除用プラットフォームを一々確認しに行かなければならないため負担が大きい事(仮に、統一された削除用プラットフォームではなく、生成AI開発企業各社がそれぞれプラットフォームを用意する形になった場合、作者・権利者側の負担が非常に大きくなる)。 ◆2. 企業ではない個人の生成AIユーザーが自分で作った作品か他人が作った作品かに限らずデータを無許可で利用できる環境が既に整っている事 ◆3. そもそもオプトアウト以前に、EUなど一部の国や地域を除いてどの国も企業側に学習データの開示義務を課しておらず、自分の制作したデータが生成AIの開発に利用されたかを確認することが極めて困難であること。 ◆4.オプトアウトを行えるようにするかは、EU以外の地域では義務付けられていないため各生成AI企業のさじ加減に左右されているのが現状で、特にそういった動きを行っていない企業も多く存在すること。 ◆5. 予告も無い状態で生成AIにデータを使われているため、そもそも把握できていない権利者もいる事。生成AI企業がオプトアウト制の存在を告知して多くの権利者に伝わるかどうかは限界がある事。 ◆6.一度オプトアウトしたデータも再び収集されデータセット内に混入する事が考えられる事。 ◆7.AI企業が用意するオプトアウト用フォームが発見しづらかったり使いづらかったりするケースもあること(わざとフォームを複雑にしているのではないか?と疑う声もある。関連記事) ◆8.オプトアウトしたとしてもあくまで将来作られるAIモデルへのものであり、現在の学習済みモデルに対するオプトアウトを反映したり、一度モデルを破棄するかなどの対応はAI企業次第の場合もあること。(そもそも学習済みモデルから特定のデータを取り除くのは技術的に難しいとする見解もある) といった理由からオプトアウトの有効性には疑問が呈されている。ただ、オプトアウトがどのような形になるかにもよって権利者側の負担は変わってくるものと考えられる。 表現規制を回避するために生成AIを規制すべきだ 主に性的表現の規制回避という観点から生成AIを規制すべきとの意見がある。現状、生成AIで作られた成人向けのAIコンテンツがインターネットに溢れており、中には「①(特に児童などを)性的に表現した実写風生成物(一応は実在しない人物とされる)」「②実在する特定個人の顔立ちを精巧に真似た既存の画像の加工ではない性的な生成物」「③実在する人物が写った写真の一部を性的に加工した生成物(いわゆる剥ぎコラ、アイコラに近いもの)」が存在し問題視されている(フェイクポルノ問題)。このようなAI生成物が跋扈し多くの被害者を生み出して社会問題化した結果、下手をすれば生成AIではない既存技術で作られた成人向け作品をも巻き込んだ表現規制をもたらし得るのではないかとの懸念もあり、この観点からも生成AIは早急に規制すべきではないかとの声がある。 これに対しては、特に①に関して「出力される結果は実在しない人物であり問題はない」、「AIの(性的な)出力も「表現」であり「表現の自由」として守るべきものではないか」「生成AIの規制をしようとすれば、表現規制を望む人々のよい口実にされてしまう」といった反論がある。 反対に「性的コンテンツのうち生成AIではない既存技術で作られた二次元作品などは、主に『作品内に描かれた人物は実在していないので問題ない』という論理で長年守られて来たが、生成AIは実在する人物の写真などを素材として無断かつ直接的に利用しているためその論理を使うことが難しくなり、それが表現規制を進めたい人々にとっての突破口になりかねないのではないか」、「表現面ではなく、技術面での規制を訴えていく形が良い(例えば生成AI開発に利用できるデータの種類を制限するなど)」、「どのみち海外ではフェイクポルノ方面などからも規制が進むのだから、これに関連した外圧などが来て規制の主導権を失う前に表現の自由を守りつつ生成AIの悪用を防ぐ、バランスの取れた規制を考えておくことが重要ではないか」「悪用が相次ぐ現状では、現状の生成AIを規制せず放置=表現の自由が担保され続ける、という訳では必ずしもないだろう」といった意見がみられる。 対生成AI限定での作風保護 「対生成AI限定で個々のクリエイターが持つ作風の保護が必要だ」という意見もある。生成AIはクリエイターの作風を簡単に模倣できるため、折角長い時間をかけて築き上げたブランドともいえる作風を模倣・大量生産されてその価値を急激に落とされたり、無許諾で作風を模倣したAI生成物が作成され意図しない形で使われることで元作品の作者に何らかの風評被害が生じるのではないかとの懸念からだ。 これに対し「人間も模倣し内容によっては元作者に被害を与える」という意見もあるが、人間と生成AIの決定的に違う点は「誰でも簡単に使え、簡単に作風を再現できる」というものではないかと言われる。人間が既存の手法を用い他者の作風を精巧に真似ようとすれば、まず時間をかけて基礎的訓練を行う必要があり、それは誰でも簡単に出来るものではないし訓練を経て作風模倣が行われたとしても生産出来る数も限られているため、模倣元クリエイターへの悪影響は相対的に少ない(ただしそれぞれのクリエイターによって模倣への心理的許容ラインは異なり、人間対人間でもトラブルになった事例は余多ある)。対して生成AIは誰にでも使える上、特定のクリエイターの作品データがいくつかあればすぐに作風模倣が可能で大量生産も容易だ。これらの特性により、権利の侵害も簡単に出来るようになる。そのため、権利の侵害が日常茶飯事的に起こるようになり収拾がつかなくなるかもしれないため対生成AI限定での作風保護が必要ではないか、というものだ。 この意見に対しては「作風保護をすれば人間の創作も不自由になる」といった反論がある。 AI生成物を生成AI開発へ利用する事について 現行生成AIに使用される学習用データのうち、人間が制作した作品ではなくAI生成物を生成AI開発の際に利用する事もしばしばある。 AI生成物に対しアメリカ著作権局など一部の関連機関は原則的に著作権が付与されないとの見方を示しているため、これを根拠としてAI生成物を生成AI開発に利用するのは問題がないとする意見もある。 これに対し、権利的に問題が無かったとしてもAI生成物は結局誰かの創作物を学習データとして利用した上で生成されたのであって(作品データ収集段階においてデータ制作者の意志が無視された上で開発された生成AIである場合)、権利のある作品データを生成AIに取り込んでそのAIから元作品データと同質の生成物を出力し他の生成AIの開発に利用するという一連の行為は、結局のところ権利を「洗浄」・ロンダリングしているに過ぎず、これについても何らかの規制を設けるべきではないかという意見がある。 生成AIは免許制にすべきではないか 現行生成AIは、偽情報の作成によって社会を混乱させたり、偽ポルノなどで個人の尊厳を犯したり、クリエイターへの嫌がらせといった悪用行為が簡単に出来ることから、誰にでも使わせるべきではなく、免許制など制度の整備を行うことで利用に制限をかけるべきでないかという意見。 生成AIに関する権利侵害については法的な手続きを簡略化する事などが必要ではないか 生成AIは権利侵害やそれに該当し得る行為が容易にできてしまうが故に、トラブルの数も膨大になるのではないか。そのため、対生成AIに関しては法的措置を行う際の手順を簡略化するなどの対策が必要ではないか、とする主張。 生成AIが健全化したとしても結局クリエイティブにとっては害 現行の生成AIについてよく取り上げられる「クリエイターの創作物データや個人に関するデータなどを生成AI開発の際に無断で利用する行為」、「偽情報や偽ポルノといった悪用」といった問題点が解決したとしても、結局はクリエイティブ産業に大きな悪影響を与えるのではないかとの意見もある。 生成AIは人間の生産量を大幅に上回る大量生産が可能だが、この特徴は権利面や悪用面から規制が進んだとしても残るため、クリエイターの活動市場が大量のAI生成物で埋め尽くされクリエイターとしての広報活動が困難になる問題、同様に大量生産によって創作物全体の価値が低下する問題や、クリエイターへのダンピング問題といったリスクも残り続けるのではないかとするものだ。現状の問題を克服してしまえば社会で本格的に使われ始める可能性もある上に、今後の技術的進化なども考慮して数十年スパンで見た場合、結局は生成AIの存在そのものが人間のクリエイティブの未来に悪影響を与えるのではないか、というものだ。 この問題に対しては、「現在行われようとしている規制以外でのアプローチが必要」「人間の創作物とAI生成物の徹底的すみわけ」といった対策が提案されており、さらには「人間らしさの一つである文化芸術をAIが主体となって行うのは人間性の喪失であり社会の損失も大きいのではないか」「オプトインかつ悪用防止対策を行った生成AIが既存の人間のクリエイターに置き換わるのは、歴史の中で何度も行われてきた機械化であり問題などはない」といったような意見もみられる。 ▲ページトップへ 【3. その他の問題点】 機械学習への悪影響 編集中 【4. 生成AIに関する論点】 【関連ページ】
https://w.atwiki.jp/aiwar/pages/258.html
ステータス 解説 AIタイプがFortress Kingである場合、人間側母星に隣接していない惑星のうちAI母星以外の全てで使用される特殊なコマンドステーション。Human仕様のModular Fortressに近い戦闘力とモジュール装備機能を持つ。 配置を問わず、固定のShield Module2つに加えてランダムな小型モジュール8つ、大型モジュール2つを装備して出現する。 扱い方 たいへん頭がおかしい戦闘力を誇るコマンドステーション。こちらの母星からの距離を問わず常に同等の戦闘力を保有しているため、序盤から凄まじい難易度の戦闘を強いられることになる。 本体は所詮要塞なのでBomberで対処できるとしても、搭載されているモジュールからの攻撃はBomberと言えども耐えられない。おまけに大量のドローンを吐き出すものが非常に多く、かといってそうでないものを狙うと強烈すぎるビーム砲で軽く吹っ飛ばされたりとろくなものではない。 おまけにこれでもコマンドステーションであるためか、Sabotage Hackerで爆破することも許してくれない。とにかく面倒極まりない相手と言える。 幸いこちらの母星に隣接する惑星だけはいつものタイプが配置されているので、本当に最初の最初から無茶な戦いを強いられることはない。まずは最低限の戦力を用意することを優先すること。 またAIタイプが2陣営とも同じと言う場合でなければ、もう一方のAIに属する惑星は普段通りなので、そちらを先に落として実力をつけたほうが無難だろう。両方Fortress Kingに指定するような方には申し上げることは何もない。 一見隙がないが、実はコマンドステーションでありながら装甲属性がCommand-Gradeではないという穴がある。これを上手く突ける手があるなら多少は楽ができるかもしれない。 また本物と違い移動できず、射程も遥かに短い。もっとも、レーダー妨害があるので一方的に攻撃できる艦は限られるし、ドローンの対処も考えておかねばならないだろう。
https://w.atwiki.jp/nwnnwn/pages/6.html
AIについて色々記載しているコーナー VGはジャスパーAIを導入しているのに何故かデフォルトAIの事ばかり書いてる。 ジャスパーは当面OnSpawnの翻訳で勘弁して下さい ジャスパーAI デフォルトAI ジャスパーAI i_ai_OnSpawn デフォルトAI OnBlocked OnCombatRoundEnd OnConversation OnDamaged OnDeath OnDisturbed OnHeartbeat OnPerception OnPhysicalAttacked OnRested OnSpawn OnSpellCastAt OnUserDefined _
https://w.atwiki.jp/genai_problem/pages/16.html
日付 出来事
https://w.atwiki.jp/aiwar/pages/252.html
ステータス 解説 主にMark IV惑星に配置されるAI副官付き基地で見られるCommand Stationの1つ。これは強力なニードラー砲を搭載し、高い自衛能力を保有する。 戦闘能力以外は、通常のAI Orbital Command Stationと同等の機能を持つ。 扱い方 特有のテーマを持った防衛体制が敷かれる、AI副官惑星で使われるステーションの1つ。通常のコマンドステーションはただの置物も同然だが、これらはそれ自体が立派な要塞であり、油断していると大損害を被る。 この型はやや単純なものの1つで、純粋に強力な兵装を搭載している。よって単体であればあまり複雑な対処も必要とされない。普段通り、ボーナス対象となっている装甲の艦の接近は避けつつ戦えば良いだろう。
https://w.atwiki.jp/aiwar/pages/254.html
ステータス 解説 主にMark IV惑星に配置されるAI副官付き基地で見られるCommand Stationの1つ。これはエンジン破壊を主目的とする砲を搭載し、接近した敵の移動速度を激減させる。 戦闘能力以外は、通常のAI Orbital Command Stationと同等の機能を持つ。 扱い方 特有のテーマを持った防衛体制が敷かれる、AI副官惑星で使われるステーションの1つ。通常のコマンドステーションはただの置物も同然だが、これらはそれ自体が立派な要塞であり、油断していると大損害を被る。 この型は強烈なエンジンダメージが特徴。幸い射程はそこまで長くないのだが、大半の艦の移動速度を一発で0まで叩き落すほどの強烈な威力を持つ。純粋な火力自体も低くはない。 もっとも、エンジンダメージ無効の艦なら恐れるまでもなく、他の曲者どもに比べればまだ対処はしやすいほう。面倒な護衛が山ほど付いている場合でもなければ対処できるだろう。
https://w.atwiki.jp/typemoonwikik/pages/5222.html
※ 스마트폰으로 들어오신 분들 안내, 검색방법 PC화면 기준으로 좌우에 보이는 사이트 메뉴가 스크롤을 내려야 보입니다. 스마트폰의 검색은 최상단 우측의 돋보기를 눌러주세요. PC의 검색은 최상단 우측의 돋보기 모양 칸을 클릭하고 적어주세요. ※ 모바일 페이지의 좌우 메뉴 링크 모바일 페이지에서 좌 우 사이드 매뉴가 아에 보이지 않는다는 이야기가 접수되어서 찾아가는 링크를 마련했습니다. ● 좌측 페이지 바로가기 버튼 (각 문서의 대분류(용어사전, 인물일람 등)를 정리하였습니다) ● 우측 페이지 바로가기 버튼 (게시판, 채팅창, 그 외 잡다한 것을 정리하였습니다) 간단한 TIP 알림(좀 더 자세한 내용은 운영방침 & 메뉴설명 항목을 참조해 주세요)● 이 사이트는 타입문의 공식 사이트가 아니며 공신력이 없습니다. 그냥 타입문 작품의 팬이 이것저것 끌어 모으고 있을 뿐입니다.● 설정놀음은 그 작품을 직접 접하지 않고 정리된 글만 근거로 들면 사심이 들어가 왜곡되기 마련입니다. 가능하면 설정놀음 하기 전에 원작을 플레이하도록 합시다.● (*1)와 같이 푸른 색에 작은 글씨와 *로 표기된 부분은 각주입니다. 클릭하면 문서 하단에 있는 해당 문단의 근거가 되는 번역문으로 자동 이동합니다.● 이텔릭체로 표기된 부분은 저의 추측이 강하게 들어간 내용입니다. 신뢰도가 떨어지니 정확한 정보를 원하시는 분은 옆에 달린 각주를 보시는 것을 추천합니다. 이텔릭체 이외의 본문도 제 실수로 잘못된 내용이 있을 가능성이 있으니 정확한 정보를 원하시는 분은 본문보다 각주 위주로 보시는 것을 추천합니다. 사실 각주도 과거 번역은 번역기 의역 땜빵이 많아서 100% 신뢰를 보장할 수 없습니다.● '템플릿'은 문서의 기본 틀을 잡기 위해 만든 페이지며, '보조페이지'는 항목의 용량이 50kb를 넘길 수 없어서 분할한 문서입니다. 관리용 페이지이므로 딱히 볼 것은 없습니다.● 고유명사의 표기 기준은 딱히 없습니다. 일관성이 없으니 정확한 표기는 다른 곳을 참조해 주세요.● 일단 형식적으로는 각주에 인용하는 번역을 타입문 측의 가이드라인(장문의 인용 금지. 단문의 인용은 허용)에 맞추고 있고 공의 경계나 페이트 제로 같이 정발된 작품은 정발되기 전 일본에서 정식 서적이 아닌 카피지, 동인지 형태로 나온 버전의 번역을 쓰고 있습니다만... 허울뿐인 주장인 건 사실이니 저작권을 가진 측에서 삭제 권고가 들어오면 지우겠습니다.● 백과사전 컨셉 사이트는 그 쪽의 컨텐츠(데이터베이스) 만들 목적으로 여기 거 그대로 퍼 가지 말아 줘요. 제가 뭐 갑질할 입장은 아니지만 그렇게 퍼 가면 의욕이 사라집니다. 그 외의 펌질은 출처가 여기라고 명기하시면 퍼 가셔도 됩니다. 사실 표기 안 하셔도 제가 뭔가 할 수 있는 건 없습니다만 제 의욕이 사라집니다. document.write( ); if (mobileCheck()) { document.write( ); } AI는 그 Artificial Intelligence, 인공지능이다. 작중에서는 두 가지 AI가 나온다. → 페이트 엑스트라의 세계에서 나오는, 완전한 전뇌세계인 세라프의 자아를 가진 인공지능 NPC. → 페이트 그랜드 오더 오딜 콜 1장 페이퍼 문 편에서 나온 인공지능들. 이들에 대한 내용은 각각 NPC와 페이퍼 문 항목을 참조할 것. 덧붙여 오딜 콜 1장 페이퍼 문에서 AI 성배전쟁이란 게 벌어지는데 여기서 AI는 인공지능이 아닌 '얼터 에고 증산(Alterego Increase)'이런 의미다.(*2) 나스 키노코는 플롯을 입력하면 자동으로 써 주는 AI 키노코 같은 게 있으면 좋겠다 한다.(*3) document.write( ); if (mobileCheck()) { document.write( ); } 이 항목에 불만을 가진 분들을 위한 안내 오타, 설정 오류, 잘못 적힌 내용이 있으면 오류지적판에서 양식을 지켜 지적해주세요. 보는 대로 수정하고 있습니다. 안 적혀 있는 설정이나 묘사를 아시는 분이 있으면 정보투고판에서 양식을 지켜 올려주세요. 보는 대로 추가합니다. 번역 출처 번역은 가능한 허락을 맡았습니다. 대강 2012년 즈음 마법사의 밤 이후의 작품은 허락을 맡았다고 보시면 됩니다. 이전의 번역은 역자분에게 연락이 가능한 경우는 다 받았습니다만 그것이 불가능한 글은 어쩔 수 없이 그냥 쓰고 있습니다. '왜 내 닉네임이 여기 있어!'라고 생각하시는(불쾌하신) 분은 게시판에 글을 남겨주세요. 시정하겠습니다. 혹시나 목록에 빠졌는데 원하시면 닉네임을 넣어드리겠습니다. ■ 많은 도움을 주셔서 일일이 정리할 수 없는 분들 에뎀님(http //edemless.egloos.com/), 닭불갈비님(http //u-chicken.tistory.com/), B2님(http //broadbridge.tistory.com/), 영생님(http //blog.naver.com/xnistore), M00NLI9HT님, RuiN님, 마그누스님, 용고령주님. ■ 구 레이스넷(현 타입문넷)의 회원분들 월희 번역 ■ 사신이라 불리는 H님 페이트 스테이 나이트 번역 ■ 정수君님 (http //kawasumi.egloos.com/) 공의 경계식 카피지 판 번역 ■ 테스타님(http //blog.naver.com/hjwi1801) 페이트 제로 동인지판, 페이트 엑스트라 캐스터 남주인공 루트 번역 ■ 마리봄님(http //blog.naver.com/mariebom/130116822778) 페이트 엑스트라 아쳐 여주인공 루트 번역 ■ 레드슈즈님(http //blog.naver.com/hjrew1106) 페이트 제로 동인지판, 페이트 스트레인지 페이크 번역 ■ 계양균님(http //www.gyeyang.xo.st/) 멜티블러드 번역 ■ 타이시님, 생물체님, Master-J님 멜티블러드 리액트 번역 ■ アイギス님 페이트 언리미티드 코드, 멜티블러드 액트레스 어게인 번역 ■ 시스타일님 멜티블러드 액트레스 어게인 리즈바이페 스트린드바리 진 시나리오 모드, 보스러쉬 모드 번역 ■ 卍(擄魔)解님(http //www.joara.com/view/book/bookPartList.html?book_code=286899) 페이트 타이가 콜로세움 시리즈 일부 번역 ■ 루트D(http //rutd.net/, 구 취월담) 멜티블러드 액트카덴쟈, 캐릭터 마테리얼 번역 ■ 귀챠니즘님(http //blog.naver.com/wlsska6327) 페이트 아포크리파 어쌔신 편 번역 ■ 밤나무님(http //blog.naver.com/holy_tree) 마법사의 밤 번역 ■ 아르크님(http //blog.naver.com/asura7777777) 마법사의 기초음률''의 번외편 '벌꿀을 둘러싼 모험' 번역 ■ 크리스Φ님(http //moonchaser.tistory.com) 달의 산호 번역 ■ 붉은박쥐님(http //redbat.egloos.com) 타입문 10주년 이벤트 팜플렛 일문일담 번역 ■ Steins;Gate(http //mypi.ruliweb.daum.net/mypi.htm?id=yuko3 ncate=1)님 페이트 제로 애니메이션 BD1권 동봉 드라마CD 번역 ■ TYPE-MOON /「 α 」(http //cafe.naver.com/uunmask33/530417)의 곽달호대위님. 페이트 제로 애니메이션 BD2권 동봉 드라마CD, 콤프티크 부록 페이트 제로 사운드 드라마 외전 번역 ■ 난 나님.(http //blog.naver.com/love2mix) 페이트 프로토타입 선상의 메리 크리스마스 살인 사건 번역 ■ 굿하님(http //patpat.egloos.com/5655941) 비쥬얼 노벨의 성상원 타입문 인터뷰 번역 ■ 그늘진 번역가님(http //blog.naver.com/lordcs95, lordcs95@naver.com) 타입문 10주년 이벤트 BD BOX 동봉 드라마CD 번역 ■ 루리웹의 헤레지아님 페이트 엑스트라 CCC 길가메쉬 루트 번역 ■ 미역5호님 페이트 엑스트라 CCC 아쳐 루트 번역 ■ 뱀탕님(http //ddr6rr.blog.me/) 페이트 엑스트라 CCC 번역 ■ 세피아님(http //kula1002.blog.me/) 페이트 엑스트라 CCC 등 번역 ■ pppppppp님 (http //blog.naver.com/gaeng99) 초시공 트러블 화투대작전 일부 스토리, 페이트 아포크리파, 페이트 할로우 아타락시아 혹은 괴물이란 이름의 식탁 번역 ■ 라미아님(http //blog.naver.com/uryyyy) 초시공 트러블 화투대작전 일부 스토리, 페이트 프로토타입 창은의 프래그먼츠, 페이트 엑스트라 ccc, 페이트 컴플리트 마테리얼2 인터뷰, 캡슐 마테리얼 등 번역. ■ 꿈유령님(http //blog.naver.com/jgwkrrk) 페이트 더 팩트, 엑스트라 가든 동봉 용어사전, 페이트 엑스트라 사운드 드라마 덤 극장, 페이트 엑스트라 극장, 페이트 엑스트라 비쥬얼 팬북 동봉 소설 세븐즈 필, 페이트 엑스트라 마테리얼 등 번역 ■ 작지님(http //ecc12.blog.me/) 페이트 엑스트라 CCC, 캡슐 서번트 등 번역 ■ 의지있는 크릴새우님(http //maidsuki.egloos.com/2652799) 초 에로게 하드코어 우로부치 겐 심층 인터뷰, 타입문 에이스 vol9, vol.10 등의 인터뷰 번역 ■ 시니님(http //blog.naver.com/twstring) 페이트 아포크리파 2권 일부 번역 ■ HNT님(http //blog.naver.com/hnt0620) 마법사의 밤, 로드 엘멜로이 2세의 사건부 번역 ■ 네거티브 네러티브님(http //blog.naver.com/haneul0784) 공의 경계 종말녹음 번역 ■ 체리님(http //cherry-21.wo.tc/) 페이트 엑스트라 CCC 번역 ■ 페어리밴드님(http //blog.naver.com/fairyband) 페이트 엑스트라 CCC 번역 ■ 모토맛다시마님(http //blog.naver.com/ahxh0112) 페이트 엑스트라 CCC 아쳐 루트 번역 ■ 더스크님(http //hrdsk.egloos.com) 2015년의 시계탑 번역 ■ 세이가님(http //blog.naver.com/cho1307) 타케보우키에 올라온 페이트 그랜드 오더 PV1 완전판 전문 번역 ■ 홍련님(http //pakiro.blog.me) 페이트 엑스트라 세이버(네로 클라우디우스) 루트 번역 ■ 해랑님(http //cshjm1689894.blog.me) 캡슐 서번트 번역 ■ 루리웹의 구운님 캡슐 서번트 번역 ■ DC 달갤의 ㅇㅇ님 사쿠라이 히카루 관련 좌담회 번역 (출처 링크) ■ 한늉님(http //blog.naver.com/opgh1/220422840221) 타입문 에이스 vol.10 부록 드라마 cd 나비효과 번역 ■ 앗님(http //blog.naver.com/ashelgran) 페이트 그랜드 오더 번역 ■ 아인할트님(http //blog.naver.com/ssj987) 페이트 그랜드 오더 번역 ■ DC 달갤(http //gall.dcinside.com/board/lists/?id=typemoon)에서 퍼온 역자분들. 온갖 작품을 퍼왔으니 딱히 작품 명시 안 함. 굳이 궁금하면 http //gall.dcinside.com/board/view/?id=typemoon no=133768 가서 뒤져 볼 것. kkyure님, 제롱님, 앙단테님, 안구운김P님, 아탈란테님, 피첼라나님, 그루님, 나사린님, 고즈엉님, 마밤님, 닉시스님, 인도형제님, 등등구렁등등이님, Embrio님, CB님 등. ■ 타입문넷의 zz21님 페이트 그랜드 오더 번역 ■ 시즈오(http //blog.naver.com/ikarikou/)님 페이트 그랜드 오더 번역 ■ 루리웹 타입문 게시판(http //bbs2.ruliweb.daum.net/gaia/do/ruliweb/family/3665/list?bbsId=G006 pageIndex=1 itemId=557)에서 퍼온 역자분들. 참고로 DC 달갤이랑 여기랑 둘 다 활동하는 분들도 있는데 그 경우 그냥 적당히 한 쪽에 적음. 수히나님, 문자 친구님, 명란빵먹고싶다님 등. ■ 파랑새님(http //blog.naver.com/waterdroper) 페이트 엑스트라 CCC 세이버, 캐스터 루트 번역 ■ 초코초코ㅡ묘도인님(http //blog.naver.com/jch531) 페이트 그랜드 오더 번역 ■ 프레님(http //prestia.tistory.com) 페이트 그랜드 오더 번역 ■ 료나님(http //blog.naver.com/sangik204) 페이트 엑스텔라 관련 투고. ■ 네이버 페이트 그랜드 오더 카페(http //cafe.naver.com/fategrandorder)의 지우님 페이트 그랜드 오더 번역. ■ 그 외 번역 도움을 주신 분들 clockwork님, 천구군님 등 ■ 수많은 오타지적 신의강림님 ■ 그 외 이전하기 이전 오위키 사이트에서 작성에 손을 보태주신 수많은 분들.
https://w.atwiki.jp/aiwar/pages/264.html
ステータス 解説 大きなシールドバブルを形成し、範囲内の味方艦への攻撃を肩代わりする。また範囲内への敵艦の進入を防ぐ。フォースフィールドへの耐性はこれらの効果の両方、あるいは片方を無効化する。 ダメージが蓄積するにつれて効果範囲は縮小する。保護下にあるAI艦は、たとえ挑発されても自発的には出ようとしない。 主にAI中枢世界で見られるCore版はサプライ不要で、核とEMPへの耐性を持つ。 扱い方 ガードポスト周辺などに配置される面倒な物体。こちらがお世話になるタイプと違い、固定型でも範囲内の味方艦への攻撃力激減ペナルティが存在せず、純粋に有利なものとなっている。 実際にどれぐらいの脅威となるかは中身次第。ステーションとその護衛ぐらいしか居ない場合は大したことはないが、ガードポストや要塞が中に入っていると破壊できるまでの時間が著しく伸びてしまい、こちらの消耗も激しくなることになる。 普通に叩き割る場合、やたらと硬いこともあってボーナスのあるBomberを持ってこないと簡単には片付かない。ただし中身によってはBomberが瞬殺されてしまうため、被害を抑えたい場合は突撃前に要確認。 フォースフィールド耐性を持つ艦があれば、中身だけ処理するということもできる。Human Raid Starshipなら必ず利用可能。彼らだけで効果的に潰せるのは脆いものぐらいだろうが、ボーナスシップで良いものが含まれていればより効果的な襲撃を行える。 効率的とは言えないものの、Plasma Siege Starshipと同系統の攻撃を行う艦も中身へダメージを波及させる機能を保有している。これも比較的脆いものぐらいしか潰せないものの、少なくとも中から撃ち返される時間を減らすのには役立つ。 他、Core版以外はEMPを浴びせてやれば短時間機能停止に追い込むこともできる。AIプログレスが上がることを考えると多用はできないが、あまりにも中身の組み合わせが凶悪な場合などには頼りたくなることも考えられる。
https://w.atwiki.jp/aiwar/pages/247.html
ステータス 解説 主にMark IV惑星に配置されるAI副官付き基地で見られるCommand Stationの1つ。これは強力なSpire仕様ビームを搭載し、適切に回避できなかった敵に致命的なダメージを与える。 戦闘能力以外は、通常のAI Orbital Command Stationと同等の機能を持つ。 扱い方 特有のテーマを持った防衛体制が敷かれる、AI副官惑星で使われるステーションの1つ。通常のコマンドステーションはただの置物も同然だが、これらはそれ自体が立派な要塞であり、油断していると大損害を被る。 この型が使うビームは、Spire艦の多くが主兵装にしているものと同等のもの。一度発射されると2秒間その角度へ撃ち続けられ、当たっている相手に対し少しずつダメージを与える。 移動方向によっては一瞬しか当たらないが、油断して直撃を貰うと耐久度が万単位で消滅する。悪いことに再装填も早く、前のビームが消えてから1秒でもう次が来るので落ち着いてはいられない。 ただ破壊するだけならそこまで特殊な戦術は要求されない。被害を抑えたいのであれば、接近する際に真正面から突っ込むような愚行だけは避けるべきである。また大艦隊だと避けた端から他の艦に当たるので、周囲の護衛にもよるが最小限の部隊で叩くのが良いかもしれない。 性質上、こちらが自由に動けない状態だと一気に凶悪になる。護衛にトラクタービームや重力波などを搭載するものが居ないかは確認しておくのが賢明。
https://w.atwiki.jp/aiwar/pages/256.html
ステータス 解説 主にMark IV惑星に配置されるAI副官付き基地で見られるCommand Stationの1つ。これは敵を弾き飛ばしてエンジンを破壊するレールガンを搭載する。 戦闘能力以外は、通常のAI Orbital Command Stationと同等の機能を持つ。 扱い方 特有のテーマを持った防衛体制が敷かれる、AI副官惑星で使われるステーションの1つ。通常のコマンドステーションはただの置物も同然だが、これらはそれ自体が立派な要塞であり、油断していると大損害を被る。 この型はこちらの軍を近付かせないのを目的としており、16連射の上に再装填も早く、おまけに射程まで長いレールガンでこちらを弾き飛ばしながら移動速度まで削ってくる。高速艦がよほど大規模な部隊で突っ込まない限り、正面から近付くのは面倒なばかりでろくなことにならない。 言うまでもなく、付近に長射程な護衛が付いていればその脅威はさらに増大する。無用な被害を出したくなければ、Artillery Golemなどの投入を躊躇うべきではない。